GENIE: optimizador basado en OSGR para generalización de dominio
Descubre GENIE, un optimizador que usa el ratio OSGR para equilibrar actualizaciones de parámetros y mejorar la generalización a dominios no vistos. Supera a
#alineación de gradientes
GRASP: Transferencia secuencial con alineación de gradientes para multisource
Aprende cómo GRASP logra un 93.5% de precisión media usando solo memoria constante, fusionando modelos secuencialmente.
Alineación de Gradientes Invariante para Destilación Robusta de Razonamiento
IGA alinea gradientes en ejemplos lógicamente isomorfos para destilar razonamiento robusto en LLMs, con hasta 14.3% más precisión y 4x consistencia lógica.